AgSpec: Pushing the Limits of Retrieval-Based Speculative Decoding in Coding Agent Pipelines
AgSpec：在编码代理流水线中突破检索型投机解码极限
🧭 编码多智能体流水线的检索式投机解码加速
KAIST
AgSpec通过三层语料检索与按Agent自适应草稿长度，将编码Agent流水线生成吞吐提升至自回归解码的4.37–4.76倍
📌 工作参考价值（4 点）
- 将多轮Agent交互历史、工作区文件、全局模板分层构建检索库，能提高生成式任务（如商品标题/详情、客服回复）中投机解码的draft命中率；索引时把原文转换为最终输出格式，避免格式不匹配导致验证拒绝。
- 不同Agent或生成任务的接受长度差异大：离线profile每个Agent/Task的draft长度上限，线上根据acceptance/verification feedback动态调长或调短，可避免固定草稿长度带来的overhead。
- 投机解码在batch=1和batch=16下都有显著吞吐提升，适合电商Agent低延迟交互和高并发批式生成两类场景；可在内部LLM推理框架中加入检索草稿模块，优先尝试session级检索再混合全局。
- 该方案不依赖额外训练，通过工程化语料与策略即可提升，适合现有Agent流水线快速集成，尤其是多轮、多智能体调用LLM的自动生成系统。